Đa Minh Nguyễn Văn Mạnh sinh ngày 12 tháng 8 năm 1955 tại Cần Thơ, được cử hành Bí tích Rửa Tội một ngày sau khi sinh tại Nhà thờ Họ đạo Cần Thơ, địa phận Nam Vang (nay là nhà thờ chính tòa Cần Thơ). Ông là người con thứ ba trong gia đình ba trai năm gái. Thân phụ là ông Phêrô Nguyễn Minh (mất năm 2000), nguyên quán giáo xứ Phúc Nhạc, xã Gia Tân 3, huyện Thống Nhất, tỉnh Đồng Nai, thuộc Giáo phận Xuân Lộc[4] và thân mẫu là bà Anna Phạm Thị Yên (mất năm 2005), nguyên quán giáo xứ Dục Đức, xã Kim Định, huyện Kim Sơn, tỉnh Ninh Bình, thuộc Giáo phận Phát Diệm.[5] Hai ông bà không cản trở các con mình khi chúng đi theo con đường tu trì, dù trong hoàn cảnh khó khăn của thời cuộc, những người con lớn đã có thể phụ giúp gia đình.[6]

Từ ngày đi tu học, vào các dịp trở về cùng gia đình, chủng sinh Mạnh thường kể về cuộc sống đời tu và những câu chuyện này góp phần thúc đẩy hai người chị của ông, vốn đã có ý định gia nhập các dòng nữ tu, ra quyết định đi theo con đường tu trì.[6] Nguyễn Văn Mạnh có hai người chị là nữ tu Dòng Mến Thánh Giá Đà Lạt (nữ tu Anna Nguyễn Thị Hiên) và Dòng Thánh Phaolô Đà Nẵng (nữ tu Anna Nguyễn Thị Yến). Gia đình ông hiện cư ngụ tại Giáo xứ Thánh Linh, Giáo hạt Thủ Thiêm, Tổng giáo phận Thành phố Hồ Chí Minh.[5] Trong dòng họ, ngoài giám mục Mạnh và hai người chị đi theo con đường tu trì còn có bốn người cháu con ông Phêrô Nguyễn Ngọc Thống, người em thứ năm trong gia đình.[6]

Lên ba tuổi, cậu bé Nguyễn Văn Mạnh cùng gia đình từ Cần Thơ đến Bà Rịa, rồi định cư ở Thủ Đức, Sài Gòn.[6] Gia đình ông thuộc giáo xứ Thánh Linh, Tổng giáo phận Sài Gòn. Nguyễn Văn Mạnh đã học tập và sinh hoạt tại giáo xứ này trong suốt thời thơ ấu.[7] Trong suốt chặng đường hơn 50 năm của giáo xứ này, chỉ có một người trở thành linh mục và sau này là giám mục đó là giám mục Nguyễn Văn Mạnh.[8]